Âm nhạc hòa tấu được xuất hiện từ những hình ảnh sơ khai của xã hội loài người. Trong những bức tranh vẽ của các danh họa từ thời xa xưa, các nhóm biểu diễn được minh họa với hình ảnh thường thấy của cây đàn lia, cùng với đó là một người hát, tiêu biểu nhất là hình ảnh thần đồng áng Pan. Các khái niệm của hình thức hòa tấu ra đời cùng với sự phát triển của nền văn minh Hy Lạp cổ đại: duo, trio, quartet và quintet.

Cùng với sự phát triển của kĩ thuật chép nhạc, đặc biệt là việc thống nhất các nguyên tắc về nốt và âm giai ở thế kỉ 16, âm nhạc đã trở nên phổ thông hơn đối với người dân (chủ yếu là ở châu Âu). Các nhóm nhạc hòa tấu nhỏ xuất hiện nhiều hơn để phục vụ các lãnh chúa và các vị vua ở chế độ phong kiến. Nhiều nghệ sĩ thực thụ đã xuất hiện. Đây là nền móng cho sự ra đời của nền âm nhạc cổ điển sau này.